DREAM: Dense Retrieval Embeddings via Autoregressive Modeling
密集检索嵌入的自回归建模训练方法DREAM
🧭 自回归监督的密集检索无对比训练
The Hong Kong University of Science and Technology
利用冻结LLM的自回归损失作为监督信号，通过注意力注入相似度分数训练密集检索器，无需对比标注。
📌 工作参考价值（4 点）
- 无标注训练检索器：可利用海量用户行为数据（如点击、加购），通过 LLM 的生成任务（例如预测商品标题下一个 token）提供训练信号，免去构建正负样本对的人工成本。
- 注意力注入梯度回传：将检索相似度分数注入冻结 LLM 的注意力头，仅更新检索器即可从生成损失中学习，适合在推荐系统中快速迭代召回模型，无需微调大模型。
- 端到端梯度通路设计：可借鉴该架构，用用户行为序列预测任务替代语言建模，构建检索器与 LLM 之间的可微连接，实现联合优化而不破坏 LLM 已有知识。
- Agent 检索优化：在 Agent 系统中，检索上下文直接影响后续动作；DREAM 可利用任务完成信号或环境反馈作为自回归目标，持续在线优化检索器，无需人工标注查询-文档相关度。